Les embarrassantes et dangereuses insuffisances de l’intelligence artificielle

ARTE.TV – À LA DEMANDE – DOCUMENTAIRE

Les députés ont adopté, le 23 mars, le recours à la vidéosurveillance algorithmique, que l’exécutif veut tester à l’occasion des Jeux olympiques de Paris, en 2024. Selon les entreprises qui vendent ces technologies, les caméras combinées à l’intelligence artificielle (IA) pourraient détecter des mouvements de foule, des bagages abandonnés ou des comportements « suspects ».

Cette technologie n’a pourtant jamais démontré la moindre efficacité, et nombre d’observateurs, parmi lesquels l’ONG Amnesty International ou l’association La Quadrature du Net, alertent sur les dangers de cette surveillance « injustifiée et disproportionnée ».

Psychologue et documentariste, Dorothe Dörholt fait, dans un percutant documentaire, la démonstration des embarrassantes et dangereuses insuffisances de ces technologies. D’abord, la liste des services concernés est longue comme le bras : sécurité dans les lieux publics, admission dans l’enseignement supérieur, recherche d’emploi, justice et prévention du crime, transports, prêts bancaires, assurances, habitudes de consommation… Plus rien n’échappe à ces suites d’opérations mathématiques si bien renseignées sur vous que les ingénieurs qui les fabriquent veulent prédire vos goûts ou votre comportement.

Bienvenue dans le « capitalisme de surveillance » que les Gafam (Google, Apple, Facebook, Amazon et Microsoft), notamment, exploitent, tout en bloquant, à coups de millions de dollars dépensés en lobbying, des lois de régulation.

Lire aussi : Article réservé à nos abonnés La surveillance, stade suprême du capitalisme ?

Fantasme de l’objectivité

Le film commence et se termine par des impasses : en Espagne, le cas d’une mère obligée de se terrer pour échapper à un conjoint violent que le programme utilisé par la police ne juge pas assez déterminé ; aux Pays-Bas, des familles entières plongées dans la précarité parce qu’elles ont été injustement accusées de fraude aux allocations de garde d’enfants. En cause, un algorithme renifleur de resquilleurs à partir de données sur la nationalité ou le lieu de domiciliation des familles… Entre les deux, la documentariste raconte comment ces programmes sont nourris de données par des travailleurs payés à la tâche et au lance-pierre.

« La perception est culturelle, politique… », explique l’artiste américain Trevor Paglen, auteur de l’installation Faces of ImageNet, qui souligne l’absurdité de l’IA : « Vous pouvez imaginer quels genres de biais et de préjugés sont intégrés à ces classifications », dit-il.

Un constat partagé par Timnit Gebru, chercheuse en éthique de l’IA et licenciée par Google en 2020 pour avoir publié un article scientifique critique de la fonction « recherche » du moteur. Conçu par des humains, l’outil reproduit les stéréotypes de la sphère sociale qui les fabrique.

Lire aussi : JO 2024 : les députés autorisent la vidéosurveillance algorithmique avant, pendant et après les Jeux

« Le domaine de l’IA est peuplé de Blancs, d’hommes et de personnes qui ont fait des études supérieures dans les grandes écoles, indique la chercheuse Sasha Costanza-Chock. Les développeurs de ces technologies ne sont pas représentatifs de la population mondiale. » A l’instar de la mathématicienne américaine Cathy O’Neil, Dorothe Dörholt montre comment ces technologies de surveillance et de catégorisation des êtres humains n’ont pas fini de nous leurrer dans le fantasme transhumaniste de l’objectivité pour mieux décider.

Algorithmes. Vers un monde manipulé, documentaire de Dorothe Dörholt (All.-Fr., 2022, 95 min). Sur Arte le 11 avril à 23 h 50.

Mouna El Mokhtari